Quá trình sụp đổ hấp dẫn từ một đám mây liên sao lạnh gồm khí và bụi là cơ cấu tiêu chuẩn để hình thành một ngôi sao. Khi đám mây bị nén nóng lên, sự giải phóng năng lượng hấp dẫn tiềm tàng là nguồn cung cấp năng lượng nhiệt này. Buổi đầu quá trình khí nén nhanh chóng bức xạ ra ngoài rất nhiều năng lượng, cho phép sự sụp đổ tiếp diễn. Cuối cùng vùng trung bâm trở nên đủ đặc để bắt giữ bức xạ. Vì thế, nhiệt độ và mật độ bên trong của đám mây sụp đổ tăng nhanh chóng theo thời gian, làm chậm quá trình nén, cho tới khi các điều kiện nóng và đặc đủ để các phản ứng hạt nhân xảy ra trong lõi của tiền sao. Đối với hầu hết các ngôi sao, khí và áp lực bức xạ sinh ra bởi các phản ứng tổng hợp nhiệt hạch bên trong lõi ngôi sao sẽ chống giữ nó chống lại sự nén hấp dẫn. Thăng bằng thủy tĩnh đạt tới ngưỡng và ngôi sao sẽ trải qua hầu hết cuộc sống tổng hợp hydro thành heli như một ngôi sao dãy chính.

Tuy nhiên, nếu khối lượng tiền sao thấp hơn 0.08 khối lượng Mặt Trời, các phản ứng nhiệt hạch tổng hợp hydro sẽ không xảy ra trong lõi. Sự nén hấp dẫn không làm nóng tiền sao nhỏ một cách có hiệu quả, và trước khi nhiệt độ trong lõi đủ để kích hoạt phản ứng tổng hợp hạt nhân, mật độ đã đạt tới điểm để các electron trở nên đủ đặc để tạo ra áp lực thoái hóa electron lượng tử. Theo các mô hình cấu trúc bên trong sao lùn nâu, các điều kiện thông thường trong lõi về mật độ, nhiệt độ và áp lực được dự tính như sau:

ρ c ∼ 10 − 10 3 g / c m 3 {\displaystyle \rho _{c}\sim 10-10^{3}g/cm^{3}} T c ≲ 3 × 10 6 K {\displaystyle T_{c}\lesssim 3\times 10^{6}K} P c ∼ 10 5 M b a r {\displaystyle P_{c}\sim 10^{5}Mbar}

Sự nén hấp dẫn tiếp theo sẽ bị ngăn chặn và kết quả là một "sao hỏng", hay một ngôi sao lùn nâu đơn giản bị lạnh đi bởi sự bức xạ năng lượng nhiệt bên trong.

Phân biệt sao lùn nâu có khối lượng lớn và sao có khối lượng thấp

Lithium: Lithium nói chung hiện diện tại các sao lùn nâu và không có tại các ngôi sao có khối lượng thấp. Các ngôi sao, vốn đã có được nhiệt năng cần thiết cho phản ứng tổng hợp hydro, nhanh chóng tiêu thụ hết lithium. Điều này xảy ra bởi sự va chạm giữa một Liti-7 và một proton tạo ra hai hạt nhân Helium-4. Nhiệt độ cần thiết cho phản ứng này ngay dưới mức nhiệt độ cần thiết cho phản ứng tổng hợp hydro. Sự đối lưu tại những ngôi sao có khối lượng thấp đảm bảo để toàn bộ lượng lithium trong sao bị tiêu thụ. Vì thế, sự hiện diện của lithium trong dòng quang phổ một vật thể bị nghi là sao lùn nâu là một đặc điểm chứng minh mạnh rằng nó là một vật thể dưới sao. Việc sử dụng lithium để phân biệt sao lùn nâu khỏi các sao có khối lượng nhỏ thường được gọi là thử nghiệm lithium, và đã được Rafael Rebolo cùng các đồng sự tiên phong áp dụng.

• Tuy nhiên, lithium cũng được quan sát thấy ở các ngôi sao rất trẻ, vẫn chưa tiêu thụ hết hoàn toàn chất này. Những ngôi sao nặng hơn như Mặt Trời của chúng ta có thể giữ lithium trong các tầng khí quyển bên ngoài, nơi không bao giờ đủ nóng để tiêu thụ lithium, nhưng chúng có thể được phân biệt với các ngôi sao lùn nâu bởi kích thước.
• Trái lại, các ngôi sao lùn nâu ở có khối lượng lớn nhất có thể đủ nóng để tiêu thụ hết lithium khi chúng đang còn trẻ. Những ngôi sao lùn có khối lượng lớn hơn 65 M J {\displaystyle M_{J}} có thể tiêu thụ toàn bộ lithium khi chúng mới được nửa tỉ năm tuổi[Kulkarni], vì thế cách thử nghiệm này không hoàn hảo.

Mêtan: Không giống các ngôi sao, những sao lùn nâu già thỉnh thoảng đủ lạnh để sau những khoảng thời gian dài khí quyển của chúng thu thập đủ khối lượng mêtan có thể quan sát được. Những ngôi sao lùn được xác định theo cách này gồm Gliese 229B.

Độ sáng: Những ngôi sao thuộc dãy chính nguội đi, nhưng cuối cùng xuống mức sáng tối thiểu mà chúng có thể duy trì qua các phản ứng tổng hợp hạt nhân ổn định. Điều này khác biệt tùy theo từng sao, nhưng nói chung ít nhất bằng 0.01% độ sáng của Mặt Trời. Những ngôi sao lùn nâu lạnh và tối đi liên tục trong đời chúng: những ngôi sao lùn nâu đủ già sẽ quá mờ nhạt để có thể phát hiện.

Phân biệt sao lùn nâu khối lượng thấp với hành tinh khối lượng lớn

Một đặc điểm đáng chú ý của các sao lùn nâu là chúng hầu như có cùng bán kính, hơn hoặc kém bán kính Sao Mộc. Với những sao có khối lượng lớn nhất (60-90 lần khối lượng Sao Mộc), thể tích của một sao lùn nâu được quyết định chủ yếu bởi áp suất thoái hóa electron[2], tương tự như với các sao lùn trắng; với những ngôi sao có khối lượng thấp nhất (1-10 lần khối lượng Sao Mộc), thể tích của chúng được quyết định chủ yếu bởi áp suất Coulomb, tương tự các hành tinh. Kết quả thực là bán kính của sao lùn nâu chỉ thay đổi khoảng 10-15% đối với mọi khối lượng. Điều này có thể khiến việc phân biệt chúng với các hành tinh khá khó khăn.

Ngoài ra, nhiều sao lùn nâu không trải qua giai đoạn tổng hợp hạt nhân; những ngôi sao có khối lượng thấp (dưới 13 lần khối lượng Sao Mộc) không bao giờ đủ nóng để tổng hợp thậm chí là deuterium, và thậm chí các sao có khối lượng lớn nhất (hơn 60 lần khối lượng Sao Mộc) lạnh đi đủ nhanh để chúng không trải qua giai đoạn tổng hợp sau một khoảng thời gian khoảng 10 triệu năm. Tuy nhiên, có hai cách để phân biệt sao lùn nâu với các hành tinh:

Mật độ là một cách phân biệt rõ. Các sao lùn nâu đều có cùng cỡ bán kính; vì thế bất kỳ vật thể nào với khối lượng gấp hơn 10 lần Sao Mộc đều có thể không phải là một hành tinh.

Quang phổ tia X và hồng ngoại cũng là một dấu hiệu nhận biết. Một số sao lùn nâu phát ra tia X; và tất cả các sao lùn nâu "ấm" tiếp tục tiến về phía quang phổ đỏ và hồng ngoại cho tới khi chúng nguội đi tới nhiệt độ như các hành tinh (dưới 1000 K).

Một số nhà thiên văn học tin rằng trên thực tế không có sự phân biệt rõ ràng giữa các sao lùn nâu và các hành tinh nặng, và rằng có sự tiếp nối giữa chúng. Ví dụ, Sao Mộc và Sao Thổ đều có cấu tạo chủ yếu từ hydro và helium, như Mặt Trời. Sao Thổ gần như lớn bằng Sao Mộc, dù chỉ có khối lượng bằng 30%. Ba hành tinh khí khổng lồ trong Hệ Mặt Trời của chúng ta (Sao Mộc, Sao Thổ, và Sao Hải Vương) bức xạ ra nhiều sức nóng hơn chúng nhận được từ Mặt Trời. Và tất cả bốn hành tinh khí khổng lồ đều có "các hệ hành tinh"—vệ tinh—của riêng chúng. Ngoài ra, người ta đã phát hiện rằng cả các hành tinh và các sao lùn nâu đều có quỹ đạo lệch tâm.

Hiện nay, Liên đoàn Thiên văn Quốc tế coi các vật thể với khối lượng vượt trên giới hạn khối lượng cho các phản ứng nhiệt hạch deuterium (hiện được tính khoảng 13 lần khối lượng Sao Mộc với các vật thể Sao Kim loại) là một sao lùn nâu, trong khi đó những vật thể dưới mức khối lượng đó (và bay quanh một ngôi sao hay các tàn tích sao) được coi là các hành tinh.[3]